Năm 621, Đậu Kiến Đức bại trận trước Tần vương Lý Thế Dân của Đường, bản thân Đậu Kiến Đức bị quân Đường bắt giữ và cuối cùng bị Đường Cao Tổ hạ lệnh xử tử tại Trường An. Quân Hạ dự tính tiếp tục kháng cự, song dưới sự lãnh đạo của Tề Thiện Hành (齊善行), họ đã đầu hàng Đường.

Các quan lại và tướng lĩnh cũ của Hạ sau đó trở về với cuộc sống như những thứ dân, song họ bị các quan lại của Đường bạo hành và lo sợ rằng mình cũng sẽ bị xử tử như Đậu Kiến Đức, vì thế họ đã bí mật tập hợp và mưu tính nổi dậy chống Đường. Sau khi được pháp sư cho biết rằng vị thủ lĩnh của họ cần phải mang họ Lưu, thoạt đầu họ đề nghị Lưu Nhã (劉雅), song người này từ chối và bị giết. Lưu Hắc Thát khi đó đang sống ẩn dật và làm nông, đến khi được đề nghị làm thủ lĩnh thì chấp thuận. Vào mùa thu năm 621, Các quan lại và tướng lĩnh cũ của Hạ chính thức nổi dậy và chiếm cứ Chương Nam. Các lính Hạ cũ dần quy tụ lại dưới quyền Lưu Hắc Thát, Lưu Hắc Thát cho tế vong linh của Đậu Kiến Đức, tuyên bố quân Hạ nổi dậy là để trả thù cho Đậu Kiến Đức. Một thủ lĩnh nổi dậy khác là Từ Viên Lãng vốn đã quy phục triều Đường, song nay thấy Lưu Hắc Thát nổi dậy thì lại quay sang quy phục quân của Lưu trên danh nghĩa.

Đường Cao Tổ thoạt đầu cử Hoài An vương Lý Thần Thông (李神通) suất quân đánh Lưu Hắc Thát, liên hiệp với quan lại triều Đường là Yên vương Lý Nghệ. Tuy nhiên, Lưu Hắc Thát đã đánh bại Lý Thần Thông tại Nhiêu Dương (饒陽, nay thuộc Hành Thủy, Hà Bắc). Sau đó, Lưu Hắc Thát cũng đánh bại Lý Nghệ, uy danh của Lưu Hắc Thát vì thế mà lan ra khắp khu vực. Lưu Hắc Thát cũng tiến hành liên minh với một thủ lĩnh nổi dậy khác là Yên vương Cai Khai Đạo, cũng như liên minh với Đông Đột Quyết. Khoảng tết năm 622, Lưu Hắc Thát đánh bại Lý Hiếu Thường (李孝常, một thành viên hoàng tộc Đường) và Lý Thế Tích, tái chiếm tất cả lãnh thổ cũ của Hạ—khu vực bờ Bắc Hoàng Hà. Đường Cao Tổ nay nhận ra rằng Lưu Hắc Thát là một mối đe dọa lớn, vì thế đã quyết định phái hai hoàng tử Lý Thế Dân và Lý Nguyên Cát suất quân tiến công Lưu Hắc Thát. Trong khi đó, vào mùa xuân năm 622, Lưu Hắc Thát xưng là Hán Đông vương. Ông tổ chức chính quyền theo cách mà Đậu Kiến Đức đã tiến hành, giữ lại hầu hết quan lại và tướng lĩnh cũ của Hạ. Các hành động quân sự của Lưu Hắc Thát thậm chí còn mãnh liệt và cương quyết hơn so với của Đậu Kiến Đức. Lưu Hắc Thát định đô tại Minh châu (洺州, nay thuộc Hàm Đan), cùng vị trí với thủ đô của Đậu Kiến Đức.